package com.atguigu.gmall.realtime.app.dws;

import com.alibaba.fastjson.JSON;
import com.alibaba.fastjson.JSONObject;
import com.atguigu.gmall.realtime.app.BaseApp;
import com.atguigu.gmall.realtime.bean.TrafficPageViewBean;
import com.atguigu.gmall.realtime.common.Constant;
import com.atguigu.gmall.realtime.util.AtguiguUtil;
import com.atguigu.gmall.realtime.util.FlinkSinUtil;
import org.apache.flink.api.common.eventtime.WatermarkStrategy;
import org.apache.flink.api.common.functions.ReduceFunction;
import org.apache.flink.api.common.functions.RichMapFunction;
import org.apache.flink.api.common.state.ValueState;
import org.apache.flink.api.common.state.ValueStateDescriptor;
import org.apache.flink.configuration.Configuration;
import org.apache.flink.streaming.api.datastream.DataStreamSource;
import org.apache.flink.streaming.api.datastream.SingleOutputStreamOperator;
import org.apache.flink.streaming.api.environment.StreamExecutionEnvironment;
import org.apache.flink.streaming.api.functions.windowing.ProcessWindowFunction;
import org.apache.flink.streaming.api.windowing.assigners.TumblingEventTimeWindows;
import org.apache.flink.streaming.api.windowing.time.Time;
import org.apache.flink.streaming.api.windowing.windows.TimeWindow;
import org.apache.flink.util.Collector;

import java.time.Duration;

/**
 * @Author lzc
 * @Date 2023/2/18 08:30
 */
public class Dws_02_DwsTrafficVcChArIsNewPageViewWindow extends BaseApp {
    public static void main(String[] args) {
        new Dws_02_DwsTrafficVcChArIsNewPageViewWindow().init(
            4002,
            2,
            "Dws_02_DwsTrafficVcChArIsNewPageViewWindow",
            Constant.TOPIC_DWD_TRAFFIC_PAGE
        );
    }
    
    @Override
    protected void handle(StreamExecutionEnvironment env, DataStreamSource<String> stream) {
        // 1. 解析成 pojo 类型
        SingleOutputStreamOperator<TrafficPageViewBean> beanStream = parseToPojo(stream);
        // 2. 开窗聚合
        SingleOutputStreamOperator<TrafficPageViewBean> resultStream = windowAndAgg(beanStream);
//        resultStream.print();
        
        // 3. 写出
        writeToClickHouse(resultStream);
    }
    
    private void writeToClickHouse(SingleOutputStreamOperator<TrafficPageViewBean> resultStream) {
        resultStream.addSink(FlinkSinUtil.getClickHouseSink("dws_traffic_vc_ch_ar_is_new_page_view_window", TrafficPageViewBean.class));
    }
    
    private SingleOutputStreamOperator<TrafficPageViewBean> windowAndAgg(
        SingleOutputStreamOperator<TrafficPageViewBean> beanStream) {
        return beanStream
            .assignTimestampsAndWatermarks(
                WatermarkStrategy
                    .<TrafficPageViewBean>forBoundedOutOfOrderness(Duration.ofSeconds(5))
                    .withTimestampAssigner((bean, ts) -> bean.getTs())
                    .withIdleness(Duration.ofSeconds(30))  // 为了解决数据倾斜导致的水印不更新问题
            )
            .keyBy(bean -> bean.getVc() + "_" + bean.getCh() + "_" + bean.getAr() + "_" + bean.getIsNew())
            .window(TumblingEventTimeWindows.of(Time.seconds(5)))
            .reduce(
                new ReduceFunction<TrafficPageViewBean>() {
                    @Override
                    public TrafficPageViewBean reduce(TrafficPageViewBean value1,
                                                      TrafficPageViewBean value2) throws Exception {
                        value1.setUvCt(value1.getUvCt() + value2.getUvCt());
                        value1.setPvCt(value1.getPvCt() + value2.getPvCt());
                        value1.setSvCt(value1.getSvCt() + value2.getSvCt());
                        value1.setDurSum(value1.getDurSum() + value2.getDurSum());
                        
                        return value1;
                    }
                },
                new ProcessWindowFunction<TrafficPageViewBean, TrafficPageViewBean, String, TimeWindow>() {
                    @Override
                    public void process(String key,
                                        Context ctx,
                                        Iterable<TrafficPageViewBean> elements,// 有且仅有一个. 前面聚和的最终结果
                                        Collector<TrafficPageViewBean> out) throws Exception {
                        TrafficPageViewBean bean = elements.iterator().next();
                        
                        bean.setStt(AtguiguUtil.tsToDateTime(ctx.window().getStart()));
                        bean.setEdt(AtguiguUtil.tsToDateTime(ctx.window().getEnd()));
                        
                        // 改成结果的统计时间
                        bean.setTs(System.currentTimeMillis());
    
                        out.collect(bean);
                    }
                }
            );
        
        
    }
    
    private SingleOutputStreamOperator<TrafficPageViewBean> parseToPojo(DataStreamSource<String> stream) {
        return stream
            .map(JSON::parseObject)
            .keyBy(obj -> obj.getJSONObject("common").getString("mid"))
            .map(new RichMapFunction<JSONObject, TrafficPageViewBean>() {
                
                private ValueState<String> lastVisitDateState;
                
                @Override
                public void open(Configuration parameters) throws Exception {
                    lastVisitDateState = getRuntimeContext()
                        .getState(new ValueStateDescriptor<String>("lastVisitDate", String.class));
                }
                
                @Override
                public TrafficPageViewBean map(JSONObject value) throws Exception {
                    JSONObject common = value.getJSONObject("common");
                    JSONObject page = value.getJSONObject("page");
                    Long ts = value.getLong("ts");
                    String vc = common.getString("vc");
                    String ch = common.getString("ch");
                    String ar = common.getString("ar");
                    String isNew = common.getString("is_new");
                    
                    Long uvCt = 0L;
                    // 如果这个用 mid 的当天第一条记录, 改 1
                    String today = AtguiguUtil.tsToDate(ts);
                    String lastVisitDate = lastVisitDateState.value();
                    if (!today.equals(lastVisitDate)) {// 今天和状态中的最后一次访问日期不等, 证明这次一定是今天的第一条
                        uvCt = 1L;
                        //把今天存入到状态中
                        lastVisitDateState.update(today);
                    }
                    Long svCt = 0L;
                    // 如果这条数据是一个新的 session, 则置为 1
                    String lastPageId = page.getString("last_page_id");
                    if (lastPageId == null) {
                        svCt = 1L;
                    }
                    
                    Long pvCt = 1L;  // 一定是 1
                    Long durSum = page.getLong("during_time");
                    return new TrafficPageViewBean(
                        "", "",
                        vc, ch, ar, isNew,
                        uvCt, svCt, pvCt, durSum,
                        ts
                    );
                }
            });
        
    }
}
/*
窗口处理函数:
    简单
        增量
        sum max min
        maxBy minBy
    
    复杂
        reduce 增量聚和
            要聚合的流中的类型和聚合后流中的类型一致, 则选这个
        
        aggregate 增量聚和
            要聚合的流中的类型和聚合后流中的类型不一致, 则选这个
                因为有累加器
        
        
        process 全量
        


----
版本-渠道-地区-访客类别粒度

会话数
页面浏览数 ( pv)
浏览总时长
独立访客数 ( uv)
-------
数据源:
    dwd_traffic_page
    
pv: 1
uv: (按照mid分组)
    当天的第一条贡献 1 否则就是 0
    
    状态: 存一个日期, 表示这个用户的最后一次访问的年月日
    状态为 null: 肯定是今天第一条
        把 uv=1   ,把当天存入到状态中
    状态不null
        今天和状态相同
            这次和上次是同一天, 这条数据 uv=0
        
        今天和状态不相等
            今天: 02-18
            最后一次: <02-18
            证明这条数据是今天的一条
            把当天存入到状态中 uv=1
            
会话数:
    如果前端埋点, 有会话 id(session_id), 只要统计有多少个不同的 id
    
    如果前端没有 session_id
        last_page_id == null
        
浏览总时长:
    during_time
    
------
流的方式实现
1. 读取dwd 层的页面日志信息

2. 每条数据封装到一个 pojo 中
    版本-渠道-地区-访客类别  pv  uv    sv  during_sum
    ...                   1   0/1   0/1   1111

3. 按照版本-渠道-地区-访客类别开窗聚和
    基于时间
        基于事件时间
            滚动 滑动 会话
        基于处理时间
            滚动 滑动 会话
    基于个数
        滚动 滑动
        
        0-5  ...                   1   0/1   0/1   1111
        0-10  ...                   1   0/1   0/1   1111
        0-10  ...                   1   0/1   0/1   1111
        
4. 把结果写出到clickhouse 中




----
from table( tumble( table 表名, descriptor(et), 窗口长度 ) )
group by window_start, window_end, kw



*/
